تقليص أمن الذكاء الاصطناعي: ثغرة في Claude Code تتيح للقراصنة تجاوز دفاعات المستخدم

عندما يأتمن المطورون مساعدًا يعمل بالذكاء الاصطناعي على مفاتيح مملكتهم الرقمية، فإنهم يتوقعون أن تصمد الأقفال. لكن خللًا كُشف عنه مؤخرًا في مساعد البرمجة الرائد لدى Anthropic، Claude Code، أظهر كيف يمكن لاختصارات الأداء أن تحوّل إجراءات الحماية إلى مجرد أوهام - فتسمح للمهاجمين بتجاوز حتى أكثر قواعد الأمان إحكامًا بصمت.

في صميم الحادثة مفاضلة مألوفة لكل من يبني باستخدام الذكاء الاصطناعي: ففحوصات الأمان تستهلك الموارد، لكن تجاوزها قد يفتح ثغرات واسعة. يتيح Claude Code، الذي يستخدمه المطورون لأتمتة المهام وتوليد الشيفرة، للمستخدمين ضبط «قواعد منع» لحظر أوامر محفوفة بالمخاطر مثل curl أو rm. لكن الباحثين اكتشفوا أنه إذا احتوى تسلسل الأوامر على أكثر من 50 أمرًا فرعيًا، فإن محلّل الأوامر القديم في النظام يتوقف ببساطة عن تطبيق هذه القواعد.

وبدلًا من حظر الأوامر المعقدة مباشرة، كان Claude Code يتجاهل قواعد المنع بهدوء ويطلب موافقة المستخدم. وفي البيئات المؤتمتة أو خطوط التكامل المستمر، قد تُعتمد هذه الموافقة تلقائيًا - مانحةً المهاجم تصريح مرور مجاني. والنتيجة: يمكن لمهاجم ذكي نشر مستودع مفتوح المصدر يبدو غير ضار، مع إخفاء أمر خبيث في الموضع 51 داخل ملف إعدادات. وعندما يستنسخ مطور المستودع ويشغّل Claude Code، قد تُسحب بيانات اعتماده أو بياناته الحساسة دون أي إنذار.

وكان السبب الجذري، وفقًا لما أفادت به Adversa AI، حدًا ثابتًا مُضمّنًا في الشيفرة هدفه منع تباطؤ النظام وتقليل التكاليف التشغيلية. والمثير للصدمة أن Anthropic كانت قد طوّرت بالفعل آلية تحليل أكثر أمانًا - لكنها لم تُنشر في الإصدار العام، ما ترك المستخدمين في العالم الحقيقي مكشوفين بينما تمتعت الإصدارات الداخلية بحماية أفضل.

ومنذ ذلك الحين أصلحت الشركة الثغرة، ووصفتها بأنها «تدهور لقواعد المنع عند الرجوع الاحتياطي بسبب فشل التحليل». لكن الخبراء يحذّرون من أن المؤسسات التي تعتمد على إصدارات أقدم ينبغي أن تعتبر قواعد المنع لديها معطلة فعليًا. ويوصون بتقييد وصول Claude Code إلى الصدفة، ومراقبة نشاط الشبكة عن كثب، ومراجعة ملفات الإعدادات من المصادر الخارجية مراجعة شاملة قبل استخدام المساعد.

تسلّط هذه الواقعة ضوءًا قاسيًا على معادلة التوازن التي يتعين على شركات الذكاء الاصطناعي إدارتها بين السرعة والتكلفة والأمان. ومع تغلغل أدوات الذكاء الاصطناعي بعمق أكبر في سير عمل التطوير، بدأت التكلفة الحقيقية لاقتطاع السلامة من أجل السرعة بالظهور. وحتى الآن، تبقى اليقظة والشك أفضل دفاع للمطور.

WIKICROOK

• قواعد المنع: قواعد المنع هي قيود يضعها المستخدمون لحظر أوامر أو إجراءات معينة، ما يعزز الأمان عبر منع الوصول أو النشاط غير المصرح به.
• محلّل الأوامر: محلّل الأوامر يفسّر تسلسلات الأوامر ويتحقق من صحتها، لضمان تنفيذ التعليمات المصرح بها فقط للحفاظ على أمن النظام ومنع الهجمات.
• خط التكامل المستمر: خط التكامل المستمر يؤتمت بناء تغييرات الشيفرة واختبارها ونشرها، ما يساعد الفرق على اكتشاف الثغرات الأمنية مبكرًا في عملية التطوير.
• تهريب البيانات: تهريب البيانات هو النقل غير المصرح به لبيانات حساسة من نظام الضحية إلى سيطرة المهاجم، غالبًا لأغراض خبيثة.
• مستوى الامتياز: مستوى الامتياز هو مقدار الوصول أو التحكم الذي يمتلكه مستخدم أو عملية على نظام ما، ما يؤثر في الإجراءات التي يمكنه تنفيذها.